Improving Ad-hoc Search Effectiveness for Conversational Information Retrieval via Model Merging
通过模型合并提升对话检索中的即席搜索有效性
🧭 对话式检索 · 模型合并
University of Toulouse, IRIT
无需微调,通过参数合并融合即席与对话检索能力,零样本NDCG@3提升最高15%
📌 工作参考价值(4 点)
- 当电商搜索需要同时支持多轮对话与常规即席查询时,可直接合并对话微调模型与基础检索模型,避免重新训练和灾难性遗忘,节省大量资源。
- 使用线性(Model Soup)或球面插值(Slerp)两种合并策略,工程实现简单,可作为多任务模型部署的轻量级方案。
- 在零样本场景下,合并模型对未见过的查询表现出更好泛化性,适合快速应对新领域或冷启动的检索需求。
- 该方法提供了一种模型能力组合的思路,可借鉴用于融合不同业务场景(如推荐与搜索)下的微调模型,提升单一模型的综合表现。